NVIDIA Jetson Thor (물리 AI 시대를 위한 엣지 슈퍼컴퓨팅)

NVIDIA Jetson Thor (물리 AI 시대를 위한 엣지 슈퍼컴퓨팅)

1. 물리 AI(Physical AI) 패러다임의 도래와 Jetson Thor의 의의

1.1 물리 AI와 범용 로봇의 부상

로보틱스 분야는 현재 근본적인 패러다임 전환을 겪고 있다. 이는 고정된 단일 작업을 수행하도록 설계된 특수 목적 로봇(specialist machines)의 시대를 지나, 다양한 환경에서 복잡하고 다채로운 임무를 수행하도록 훈련된 범용 로봇(generalist robotics)의 시대로 진입하는 것을 의미한다.1 이러한 전환의 핵심에는 ’물리 AI(Physical AI)’라는 개념이 자리 잡고 있다. 물리 AI는 디지털 공간에 국한되었던 인공지능이 물리적 세계와 실시간으로 상호작용하며, 주변 환경을 인식(perception)하고, 상황을 추론(reasoning)하며, 목표에 따라 행동(action)하는 기술을 총칭한다.2

이러한 지능형 시스템의 구현은 대규모 언어 모델(Large Language Models, LLM), 비전 언어 모델(Vision Language Models, VLM), 그리고 비전-언어-행동 모델(Vision-Language-Action Models, VLA)과 같은 거대한 파운데이션 모델(foundation models)에 의해 가능해졌다.1 이 모델들은 로봇이 인간의 자연어 지시를 이해하고, 시각 정보를 바탕으로 복잡한 작업을 계획하며, 미지의 환경에 적응하는 능력을 부여한다. 그러나 이러한 모델들은 수십억에서 수조 개에 이르는 파라미터를 가지며, 이를 구동하기 위해서는 막대한 양의 엣지 컴퓨팅(edge computing) 성능을 요구한다.

1.2 엣지 컴퓨팅의 도전 과제

기존의 엣지 컴퓨팅 디바이스들은 제한된 연산 능력과 메모리 용량으로 인해, 클라우드와의 지속적인 연결 없이는 대규모 생성형 AI 모델을 실시간으로 실행하는 데 명백한 한계를 보였다. 특히 휴머노이드 로봇이나 자율주행차와 같이 다수의 고대역폭 센서(카메라, LiDAR, 레이더 등)로부터 입력되는 데이터를 실시간으로 융합하고, 수 밀리초(millisecond) 단위의 낮은 지연 시간(low-latency)으로 복잡한 추론을 수행하는 것은 전통적으로 데이터센터의 서버급 컴퓨팅 파워가 필요한 작업으로 간주되었다.5

로보틱스 분야에서 가장 중요한 난제 중 하나는 로봇이 예측 불가능한 물리적 세계 및 인간과 실시간으로 지능적인 상호작용을 가능하게 하는 것이다. 이를 위해서는 서로 다른 여러 AI 워크플로우—예를 들어, 실시간 모터 제어를 위한 고속 루프, 주변 환경 인식을 위한 3D 비전 파이프라인, 그리고 작업 계획을 위한 대규모 언어 모델 추론—를 동시에, 그리고 안정적으로 실행할 수 있는 압도적인 컴퓨팅 성능이 필수적이다.8

1.3 Jetson Thor의 포지셔닝 및 안내서의 목적

이러한 시대적 요구에 부응하여 NVIDIA는 Jetson Thor를 출시했다. Jetson Thor는 이전 세대 임베디드 시스템의 단순한 성능 향상 버전이 아니라, 물리 AI와 범용 로봇이라는 새로운 시대를 위해 처음부터 완전히 새롭게 설계된 ’엣지 AI 슈퍼컴퓨터(AI edge supercomputer)’이다.2 이 플랫폼의 핵심 목표는 과거 데이터센터 서버에서만 가능했던 수준의 AI 연산 능력을 로봇이나 차량과 같은 엣지 디바이스에 직접 탑재하는 것이다. 이를 통해 로봇은 클라우드 의존성을 획기적으로 낮추고, 완전한 온디바이스(on-device) 실시간 추론을 통해 진정한 자율성을 확보할 수 있게 된다.5

Jetson Thor의 등장은 단순한 하드웨어의 발전을 넘어, AI 소프트웨어 패러다임의 변화에 대한 NVIDIA의 전략적 대응을 의미한다. AI 기술이 전통적인 합성곱 신경망(CNN) 기반의 인식 작업에서 Transformer 아키텍처 기반의 거대 모델로 이동함에 따라, 엣지 하드웨어 역시 이에 최적화된 구조를 요구하게 되었다. Jetson Thor는 바로 이 ’Transformer 시대’의 엣지 컴퓨팅을 위해 탄생한 플랫폼이다. 본 안내서는 Jetson Thor의 시스템 온 칩(SoC) 아키텍처, 핵심 기술 혁신, 소프트웨어 생태계, 그리고 주요 응용 분야와 시장에 미치는 영향을 심층적으로 분석한다. 이를 통해 차세대 로봇 및 지능형 시스템 개발자, 연구자, 그리고 시스템 아키텍트에게 포괄적이고 깊이 있는 기술적 통찰력을 제공하는 것을 목적으로 한다.

2. Jetson Thor 시스템 온 칩(SoC) 아키텍처 심층 분석

NVIDIA Jetson Thor는 단일 시스템 온 칩(SoC) 내에 최첨단 GPU, 서버급 CPU, 고대역폭 메모리, 그리고 고속 I/O를 집적하여 전례 없는 수준의 엣지 컴퓨팅 성능을 제공한다. Jetson Thor 제품군은 최상위 모델인 T5000과, 보다 전력 효율적인 T4000 모듈로 구성된다.2 본 분석은 주로 T5000 모듈을 중심으로 진행한다.

2.1 NVIDIA Blackwell GPU 아키텍처

Jetson Thor의 심장부는 NVIDIA의 최신 Blackwell GPU 아키텍처이다. 이는 데이터센터용 GPU에서 입증된 기술들을 엣지 환경에 최적화하여 이식한 것으로, 생성형 AI 워크로드 처리에 특화된 혁신적인 기능들을 포함한다.

  • 코어 구성 및 성능: T5000 모듈의 GPU는 2560개의 CUDA 코어와 96개의 5세대 텐서 코어(Tensor Core)를 탑재하고 있다.13 내부적으로는 3개의 GPC(Graphics Processing Cluster)와 10개의 TPC(Texture Processing Cluster)로 구성된 구조로 알려져 있으며, 최대 1.57 GHz의 클럭 속도로 동작한다.1 이러한 하드웨어 구성을 바탕으로, 130W의 최대 전력 소모 조건에서 희소성(sparsity)을 적용한 FP4(4-bit Floating Point) 데이터 정밀도 기준으로 최대 2070 TFLOPS(Tera Floating-point Operations Per Second)라는 압도적인 AI 연산 성능을 달성한다.2 이는 이전 세대 플래그십 모델인 Jetson AGX Orin이 제공하는 275 TOPS(INT8 기준) 대비 약 7.5배 높은 수치이다.2
  • 차세대 Transformer Engine 및 FP4 지원: Blackwell 아키텍처의 가장 중요한 혁신 중 하나는 Transformer 기반 AI 모델의 추론 연산을 하드웨어 수준에서 직접 가속하는 2세대 Transformer Engine이다.1 이 엔진은 모델의 가중치(weights)와 활성화(activations) 값에 대해 네이티브 FP4 데이터 형식을 지원한다.1 4-bit의 낮은 정밀도를 사용함으로써 모델의 메모리 점유 공간과 대역폭 요구량을 획기적으로 줄일 수 있으며, 이는 생성형 AI 모델 추론 과정의 prefill 및 decoding 단계를 모두 가속화하여 최종적으로 더 빠른 응답 속도를 구현한다.1 또한, Transformer Engine은 연산의 종류와 요구 정밀도에 따라 FP4와 FP8 사이를 동적으로 전환하여 성능과 정확도의 균형을 최적화한다.1
  • 비전 및 멀티미디어 가속기: Jetson Thor는 순수 AI 연산 외에도 다양한 하드웨어 가속기를 내장하여 시스템 전반의 효율성을 높인다. 3세대 PVA(Programmable Vision Accelerator)는 전통적인 컴퓨터 비전 알고리즘을 저전력으로 처리하며, 광학 흐름 가속기는 객체의 움직임 추적을 가속한다.1 특히 주목할 점은 이중 NVDEC(Decoder) 및 NVENC(Encoder) 엔진의 탑재이다. Jetson Orin이 각각 단일 엔진을 가졌던 것과 달리, Thor는 두 개의 엔진을 통해 멀티미디어 처리 능력을 대폭 강화했다.17 이를 통해 최대 4개의 8Kp30 비디오 스트림 또는 10개의 4Kp60 비디오 스트림을 동시에 디코딩할 수 있으며, 최대 6개의 4Kp60 비디오 스트림을 H.265 또는 H.264 코덱으로 인코딩할 수 있다.17 이는 다중 카메라를 사용하는 로봇이나 지능형 영상 분석 시스템에 필수적인 기능이다.

2.2 Arm Neoverse V3AE CPU 클러스터

Jetson Thor는 기존 Jetson 시리즈가 사용하던 모바일용 Arm Cortex-A 시리즈 CPU에서 벗어나, 데이터센터 및 고성능 컴퓨팅을 위해 설계된 서버급 Arm Neoverse 아키텍처를 채택했다. 이는 Jetson Thor가 단순한 임베디드 장치를 넘어, 엣지 환경에서 서버급 작업을 수행하도록 설계되었음을 명확히 보여주는 부분이다.

  • 코어 아키텍처 및 구성: T5000 모듈은 ’Poseidon-AE’라는 코드명으로 알려진 14개의 Arm Neoverse V3AE 64비트 코어로 구성된 CPU 클러스터를 탑재한다.13 ’AE’는 ’Automotive Enhanced’를 의미하며, 이는 Neoverse V3 아키텍처에 기능 안전 및 실시간 처리 강화를 위한 기능이 추가되었음을 시사한다.19 CPU 클러스터는 최대 2.6 GHz의 클럭 속도로 동작하며, 이전 세대인 Jetson Orin의 12코어 Cortex-A78AE CPU 대비 약 3.1배 높은 종합 성능을 제공한다.1
  • 캐시 계층 구조: 각 CPU 코어는 64KB의 L1 명령어 캐시(I-Cache)와 64KB의 L1 데이터 캐시(D-Cache), 그리고 코어별로 독립적인 1MB의 대용량 L2 캐시를 가진다.13 또한, 14개의 모든 코어가 공유하는 16MB의 시스템 레벨 L3 캐시가 존재하여 코어 간 데이터 공유 및 통신을 가속한다.2 이러한 풍부한 캐시 구조는 메모리 접근 지연 시간을 최소화하고, 다중 스레드 환경에서 높은 성능을 유지하는 데 결정적인 역할을 한다.
  • 서버급 CPU의 역할: 물리 AI 시스템은 단순히 AI 모델을 추론하는 것 외에도 운영체제 실행, 다중 센서 데이터 스트림 관리, 통신 스택 처리, SLAM(동시적 위치추정 및 지도작성) 및 모션 플래닝과 같은 비-AI 알고리즘 실행 등 복잡한 일반 연산 작업을 병렬로 처리해야 한다. Neoverse V3AE CPU는 강력한 단일 스레드 성능과 다중 코어 확장성을 바탕으로 이러한 복합적인 작업을 원활하게 처리하며, Blackwell GPU가 AI 연산에 집중할 수 있도록 데이터 파이프라인을 효율적으로 관리하는 역할을 수행한다. 이는 시스템 전체의 병목 현상을 방지하고 균형 잡힌 성능을 제공하는 핵심 요소이다.

2.3 통합 메모리 및 고속 I/O 시스템

대규모 AI 모델과 고대역폭 센서 데이터를 처리하기 위해 Jetson Thor는 메모리와 I/O 시스템 전반에 걸쳐 대대적인 업그레이드를 단행했다.

  • 메모리 시스템: T5000 모듈은 128GB 용량의 256-bit LPDDR5X 메모리를 탑재하여, 273 GB/s에 달하는 방대한 메모리 대역폭을 제공한다.2 이는 Jetson AGX Orin(64GB, 204.8 GB/s) 대비 용량은 2배, 대역폭은 약 33% 증가한 수치이다.5 특히, CPU와 GPU가 동일한 메모리 공간을 공유하는 통합 메모리 아키텍처(Unified Memory Architecture)를 채택하여, CPU와 GPU 간의 불필요한 데이터 복사 오버헤드를 제거하고 애플리케이션 개발을 간소화한다.15 128GB라는 대용량은 수십억 파라미터 규모의 LLM이나 VLM 모델 여러 개를 동시에 메모리에 상주시키며 실행할 수 있는 기반을 제공한다.11
  • 고속 네트워킹: 다중 모달 센서 퓨전의 병목 현상을 해결하기 위해, Jetson Thor는 4개의 25GbE(Gigabit Ethernet) 인터페이스를 기본으로 지원한다.2 이는 개발자 키트의 QSFP28 커넥터를 통해 제공되며, 총 100Gbps의 엄청난 데이터 수신 대역폭을 확보할 수 있게 해준다.12 이를 통해 여러 대의 고해상도 카메라, LiDAR, 레이더로부터의 원시(raw) 데이터를 지연 없이 수신하여 실시간으로 처리할 수 있다.3 개발자 키트에는 추가적으로 범용 네트워킹을 위한 1개의 5GbE RJ45 포트도 포함되어 있다.12
  • 확장성 및 전력: 최신 인터페이스 표준인 PCIe Gen5를 지원하여 고속 NVMe 스토리지나 커스텀 가속기 카드 연결을 위한 미래 확장성을 확보했다.1 시스템의 전력 소모는 애플리케이션의 요구 사항에 따라 40W의 저전력 모드부터 130W의 최대 성능 모드까지 유연하게 구성할 수 있다.2 최대 전력 소모는 Jetson AGX Orin(최대 60W) 대비 증가했지만, AI 연산 성능 당 전력 효율, 즉 와트당 성능(performance-per-watt)은 3.5배 향상되어 훨씬 효율적인 연산이 가능하다.2

2.3.1 표 1: NVIDIA Jetson Thor 모듈 기술 사양

사양Jetson T5000Jetson T4000*
AI 성능2070 TFLOPS (FP4, 희소)1200 TFLOPS (FP4, 희소)
GPUBlackwell 아키텍처 2560 CUDA 코어 96 5세대 텐서 코어 MIG (10 TPCs)Blackwell 아키텍처 1536 CUDA 코어 64 5세대 텐서 코어 MIG (6 TPCs)
GPU 최대 주파수1.57 GHz1.57 GHz
CPU14코어 Arm Neoverse-V3AE 64-bit12코어 Arm Neoverse-V3AE 64-bit
CPU 최대 주파수2.6 GHz2.6 GHz
메모리128 GB 256-bit LPDDR5X64 GB 256-bit LPDDR5X
메모리 대역폭273 GB/s273 GB/s
비전 가속기PVA v3.0PVA v3.0
비디오 인코딩6x 4Kp60 (H.265/H.264)6x 4Kp60 (H.265/H.264)
비디오 디코딩4x 8Kp30 (H.265), 4x 4Kp60 (H.264)4x 8Kp30 (H.265), 4x 4Kp60 (H.264)
카메라 인터페이스HSB 통해 최대 20개, 16x MIPI CSI-2 레인 통해 최대 6개HSB 통해 최대 20개, 16x MIPI CSI-2 레인 통해 최대 6개
네트워킹4x 25 GbE4x 25 GbE
PCIeGen5 지원Gen5 지원
디스플레이4x 공유 HDMI 2.1 / DisplayPort 1.4a4x 공유 HDMI 2.1 / DisplayPort 1.4a
전력 소모40 W – 130 W40 W – 75 W
크기100 mm x 87 mm100 mm x 87 mm

참고: Jetson T4000의 사양은 개발 중인 초기 사양을 기반으로 한다.1

2.3.2 표 2: AI 연산 성능 상세 비교 (Jetson T5000)

데이터 타입희소성(Sparsity)성능
FP32Dense7.8 TFLOPS
FP16Sparse517 TFLOPS
FP8 / INT8Sparse1035 TFLOPS / TOPS
FP8 / INT8Dense517 TFLOPS / TOPS
FP4Sparse2070 TFLOPS
FP4Dense1035 TFLOPS

출처:.1

3. 핵심 아키텍처 혁신: 성능과 기능성의 재정의

Jetson Thor는 단순히 연산 성능을 높이는 것을 넘어, 현대 로보틱스 및 자율 시스템이 직면한 근본적인 아키텍처 문제를 해결하기 위한 혁신적인 기술들을 도입했다. Multi-Instance GPU(MIG), 기능 안전(Functional Safety), 그리고 NVLink-C2C 인터커넥트는 Jetson Thor를 단순한 컴퓨팅 모듈이 아닌, 차세대 지능형 시스템을 위한 통합 플랫폼으로 만드는 핵심 요소이다.

3.1 Multi-Instance GPU (MIG) 기술

Jetson Thor는 데이터센터용 Blackwell GPU의 핵심 기능인 MIG(Multi-Instance GPU) 기술을 엣지 플랫폼에 최초로 도입했다.1 MIG는 단일 물리 GPU를 하드웨어 수준에서 최대 7개의 완전히 독립적인 가상 GPU 인스턴스로 분할하는 기술이다.15 이는 단순한 소프트웨어적 가상화나 시분할(time-slicing) 방식과 근본적으로 다르다. 각 MIG 인스턴스는 고유의 스트리밍 멀티프로세서(SM), L2 캐시, 메모리 컨트롤러, 그리고 메모리 대역폭을 할당받아 완벽하게 격리된다.23

이러한 하드웨어 수준의 격리는 로보틱스 애플리케이션에서 발생하는 ‘혼합 중요도(Mixed-Criticality)’ 문제를 해결하는 데 결정적인 역할을 한다. 현대의 로봇은 극도로 낮은 지연 시간과 결정론적 실행이 요구되는 안전 필수적인 실시간 제어 워크로드(예: 100Hz에서 1kHz 주기로 실행되는 모터 토크 제어)와, 상대적으로 긴 처리 시간이 허용되지만 막대한 연산량을 요구하는 고수준 AI 추론 워크로드(예: 1Hz에서 5Hz 주기로 실행되는 장면 이해, 경로 계획, 자연어 대화)를 동시에 처리해야 한다.1

기존 시스템에서는 이러한 이질적인 워크로드를 처리하기 위해 실시간 제어용 마이크로컨트롤러(MCU)나 DSP와 AI 추론용 고성능 프로세서를 별도로 사용하는 복잡한 다중 ECU(Electronic Control Unit) 구조를 채택해야 했다. 이는 시스템의 복잡성, 비용, 전력 소모를 증가시키는 주요 원인이었다. Jetson Thor의 MIG 기술은 이러한 문제를 단일 칩 솔루션으로 해결한다. 개발자는 작고 격리된 MIG 인스턴스를 실시간 제어 루프에 할당하여 다른 고부하 작업의 영향을 받지 않는 예측 가능한 성능(QoS)을 보장할 수 있다. 동시에, 나머지 대부분의 GPU 자원으로 구성된 더 큰 MIG 인스턴스는 대규모 VLA 모델을 실행하여 고수준의 지능을 구현하는 데 사용될 수 있다.1 이처럼 MIG는 단일 SoC 상에서 안전성과 고성능 AI를 동시에 달성하게 함으로써, ’소프트웨어 정의 머신(Software-Defined Machine)’이라는 차세대 로봇 아키텍처를 구현하는 핵심 기술이라 할 수 있다.

3.2 기능 안전(Functional Safety) 및 보안

Jetson Thor는 차량용 버전인 DRIVE AGX Thor와 동일한 실리콘 기반을 공유하며, 이는 설계 초기부터 엄격한 기능 안전 요구사항을 고려했음을 의미한다. 이 플랫폼은 자동차 기능 안전 국제 표준인 ISO 26262와 사이버 보안 표준인 ISO 21434를 충족하도록 설계되었다.26

이러한 기능 안전 역량은 하드웨어와 소프트웨어 전반에 걸쳐 구현된다. Arm Neoverse V3AE CPU는 코어 수준에서 결정론적 성능(deterministic performance)과 오류 감지 메커니즘을 지원하도록 설계되어, 예측 불가능한 동작이 치명적인 결과를 초래할 수 있는 안전 필수(safety-critical) 환경에 적합하다.11 또한, 메모리 ECC(Error-Correcting Code), 보안 부팅(Secure Boot), 하드웨어 암호화 엔진 등 다양한 기능이 SoC 수준에 통합되어 시스템의 신뢰성과 보안을 강화한다.17

소프트웨어 측면에서는 NVIDIA DriveOS가 ISO 26262 인증을 지원하며, BlackBerry QNX와 같은 안전 인증 실시간 운영체제(RTOS)와의 긴밀한 통합을 통해 안전 필수 시스템 구축을 용이하게 한다.27 비록 일반 로보틱스용 Jetson Thor가 자동차용 DriveOS와 동일한 수준의 완전한 안전 인증 패키지와 함께 제공되지는 않더라도, 그 기반이 되는 하드웨어의 내재된 안전 기능은 수술 로봇, 협동 로봇, 그리고 중장비 자동화와 같이 고도의 신뢰성이 요구되는 규제 산업 분야로의 진출을 위한 강력한 기반이 된다. 이는 NVIDIA가 자동차 시장을 위해 투자한 막대한 R&D 결과를 활용하여, 고부가가치의 산업 및 의료 로보틱스 시장을 선점하려는 전략적 포석으로 해석될 수 있다.

3.3 NVLink-C2C 인터커넥트 기술의 잠재력

NVLink-C2C는 NVIDIA가 개발한 초고속, 저지연, 저전력 칩-투-칩(chip-to-chip) 및 다이-투-다이(die-to-die) 인터커넥트 기술이다. 이는 표준적인 PCIe Gen 5 인터페이스 대비 25배 높은 에너지 효율과 90배 높은 면적 효율을 제공하여, 여러 칩을 마치 하나의 거대한 단일 칩처럼 긴밀하게 연결할 수 있게 해준다.30

이 기술은 차량용 DRIVE AGX Thor 플랫폼에서 명확한 활용 사례를 보여준다. 극도의 연산 성능이 요구되는 레벨 4 또는 레벨 5 수준의 완전 자율주행 시스템을 구현하기 위해, 두 개의 DRIVE Thor SoC를 NVLink-C2C로 직접 연결할 수 있다.32 이렇게 연결된 두 칩은 단일 운영체제 하에서 하나의 거대한 컴퓨팅 플랫폼(monolithic platform)으로 동작하며, 이론적으로 AI 연산 성능을 두 배로 확장할 수 있다.

현재 로보틱스용 Jetson Thor 제품군에서는 NVLink-C2C를 통한 다중 SoC 연결 기능이 공식적으로 발표되지는 않았다. 하지만 DRIVE Thor와 동일한 SoC를 기반으로 한다는 점에서 기술적인 기반은 이미 마련되어 있다고 볼 수 있다. 따라서 향후 휴머노이드 로봇의 지능이 더욱 고도화되거나, 여러 로봇의 작업을 통합적으로 처리하는 엣지 AI 서버와 같이 현재의 단일 칩 성능을 초과하는 극한의 컴퓨팅 파워가 요구되는 특정 애플리케이션이 등장할 경우, 이 NVLink-C2C 기술이 Jetson 플랫폼에도 적용될 잠재력은 충분히 존재한다.

4. 소프트웨어 생태계: JetPack 7과 도메인 특화 AI 플랫폼

강력한 하드웨어 성능은 그것을 온전히 활용할 수 있는 성숙한 소프트웨어 생태계가 뒷받침될 때 비로소 가치를 발휘한다. NVIDIA는 Jetson Thor를 위해 새로운 JetPack 7 소프트웨어 스택과 함께, 로보틱스, 비전 AI, 센서 처리 등 각 도메인에 특화된 포괄적인 AI 플랫폼을 제공하여 개발자들이 하드웨어의 잠재력을 최대한 끌어낼 수 있도록 지원한다.

4.1 JetPack 7 소프트웨어 스택

JetPack 7은 Jetson Thor를 위한 공식 소프트웨어 개발 키트(SDK)로, 이전 버전 대비 중요한 구조적 변화를 포함하고 있다.

  • 기반 시스템 및 실시간성: JetPack 7은 최신 Ubuntu 24.04 LTS 배포판과 Linux Kernel 6.8을 기반으로 한다. 특히, 실시간(real-time) 워크로드를 위해 PREEMPT_RT 커널 패치를 지원하여, 로봇 제어와 같이 예측 가능한 응답 시간이 중요한 애플리케이션의 요구사항을 충족시킨다.21
  • SBSA 표준 준수 및 통합 CUDA: JetPack 7의 가장 중요한 변화 중 하나는 서버 기반 시스템 아키텍처(Server Base System Architecture, SBSA) 표준을 준수한다는 점이다.35 이는 Jetson Thor를 단순한 임베디드 장치가 아닌, 표준화된 Arm 서버 플랫폼으로 취급하겠다는 NVIDIA의 전략적 의도를 보여준다. SBSA 준수를 통해 표준 Linux 배포판과의 호환성이 향상되고, 기업 환경의 IT 인프라에 통합하기가 용이해진다. 또한, 이는 NVIDIA Grace와 같은 데이터센터용 Arm 서버와 Jetson Thor 간에 통합된 CUDA 13.0 설치를 가능하게 하여, 개발자들이 서버에서 개발 및 테스트한 코드를 거의 변경 없이 엣지 디바이스에 배포할 수 있는 원활한 워크플로우를 제공한다.35
  • 최신 AI 컴퓨팅 스택: JetPack 7은 최신 AI 모델, 특히 대규모 언어 모델을 효율적으로 실행하기 위한 최신 소프트웨어 스택을 포함한다. NVIDIA Triton Inference Server는 다양한 프레임워크로 만들어진 모델들을 최적화하여 서빙하는 역할을 하며, TensorRT-LLM은 LLM 추론을 위한 특화된 최적화 라이브러리를 제공한다.35 또한, vLLM이나 SGLang과 같은 최신 고속 LLM 서빙 프레임워크에 대한 지원도 예정되어 있어, 개발자들은 최신 연구 성과를 빠르게 제품에 적용할 수 있다.35
  • 클라우드 네이티브 개발: Jetson Thor는 클라우드 네이티브 기술을 적극적으로 수용한다. Docker 컨테이너를 통한 애플리케이션 패키징, Kubernetes를 이용한 컨테이너 오케스트레이션, 그리고 마이크로서비스 아키텍처를 지원하여, 대규모 로봇 플릿(fleet)의 배포, 관리, 업데이트를 용이하게 한다.35

4.2 NVIDIA Isaac 플랫폼과 GR00T 파운데이션 모델

NVIDIA Isaac은 로봇 개발의 전 과정을 가속화하기 위한 엔드투엔드 플랫폼이다. 이는 Jetson Thor의 하드웨어 성능을 로보틱스 애플리케이션으로 변환하는 핵심적인 소프트웨어 계층이다.

  • 통합 개발 환경: Isaac 플랫폼은 로봇 개발에 필요한 모든 구성 요소를 제공한다. NVIDIA Omniverse 기반의 Isaac Sim은 물리적으로 정확하고 사실적인 3D 시뮬레이션 환경을 제공하여, 실제 로봇 없이도 AI 모델을 훈련하고 테스트할 수 있게 한다.6 Isaac Lab은 Isaac Sim 위에서 강화 학습(Reinforcement Learning)과 같은 최신 AI 훈련 기법을 적용하기 위한 오픈소스 프레임워크이다.36 또한, Isaac ROS는 로봇 운영 체제(ROS) 개발자들이 NVIDIA 하드웨어 가속과 AI 라이브러리를 쉽게 활용할 수 있도록 최적화된 패키지들을 제공한다.37
  • GR00T 파운데이션 모델: GR00T(Generalist Robot 00 Technology)는 범용 로봇을 위한 파운데이션 모델을 개발하기 위한 NVIDIA의 야심 찬 프로젝트이다.36 GR00T N1.5와 같은 파운데이션 모델은 특정 작업에 국한되지 않고, 언어, 이미지, 영상 등 다중 모달 입력을 통해 일반화된 추론 및 행동 생성 능력을 갖추도록 훈련된다.2 Jetson Thor는 바로 이러한 거대하고 복잡한 GR00T 모델을 로봇의 ’두뇌’에서 직접 실행하기 위해 설계된 핵심 컴퓨팅 엔진이다. NVIDIA는 GR00T와 같은 강력한 파운데이션 모델을 제공함으로써 로봇 개발의 진입 장벽을 낮추고, 이는 결과적으로 이러한 모델을 구동할 수 있는 유일한 고성능 하드웨어인 Jetson Thor의 수요를 견인하는 선순환 구조를 만들어낸다.
  • Sim2Real 워크플로우: Isaac 플랫폼의 궁극적인 목표는 시뮬레이션(Sim) 환경에서 훈련된 AI 모델이 최소한의 수정만으로 실제(Real) 로봇에서 원활하게 작동하도록 하는 것이다. 이는 ‘Sim2Real’ 문제로 알려져 있으며, 이를 해결하는 것이 로봇 개발의 비용과 시간을 단축하는 데 매우 중요하다. Analog Devices(ADI)와 같은 하드웨어 파트너들은 자사의 센서나 액추에이터에 대한 물리적으로 정확한 디지털 트윈 모델을 Isaac Sim에 제공함으로써, 시뮬레이션과 현실 간의 격차를 줄이는 데 기여하고 있다.3 개발자들은 Isaac Sim에서 충분히 검증된 AI 정책을 Jetson Thor가 탑재된 로봇에 배포하여 빠르고 안정적인 개발을 달성할 수 있다.

4.3 NVIDIA Holoscan 및 Metropolis 플랫폼

Jetson Thor는 로보틱스 외에도 다양한 엣지 AI 애플리케이션을 지원하기 위한 전문 플랫폼을 제공한다.

  • Holoscan: 실시간 멀티센서 데이터 처리에 특화된 플랫폼으로, 특히 의료 영상 장비나 산업용 센서 시스템에 최적화되어 있다.2 Holoscan의 핵심 기술인 Holoscan Sensor Bridge는 이더넷과 같은 표준 인터페이스를 통해 입력된 센서 데이터를 CPU를 거치지 않고 GPU 메모리로 직접 전송(Direct Memory Access, DMA)하는 기술이다.2 이는 CPU의 부하를 극적으로 줄이고, 데이터 수집부터 AI 추론까지의 전체 파이프라인 지연 시간을 최소화하여 진정한 실시간 처리를 가능하게 한다.
  • Metropolis: 지능형 영상 분석(Intelligent Video Analytics, IVA) 및 비전 AI 에이전트 개발을 위한 플랫폼이다.5 Jetson Thor의 강력한 이중 비디오 엔진과 AI 추론 성능을 활용하여, 스마트 시티의 교통 관제, 공장의 안전 모니터링, 리테일 매장의 고객 행동 분석 등 수십 개의 고해상도 비디오 스트림을 동시에 분석하는 애플리케이션을 구축할 수 있다.5 특히 VSS(Video Summarization and Search)와 같은 고급 워크플로우를 지원하여, 방대한 영상 데이터에서 자연어 쿼리를 통해 의미 있는 정보를 검색하고 요약하는 지능형 에이전트를 엣지에서 구현할 수 있다.2

5. 주요 응용 분야 및 산업별 도입 사례 분석

Jetson Thor의 압도적인 성능과 포괄적인 소프트웨어 생태계는 휴머노이드 로봇을 필두로 자율주행차, 산업 자동화, 의료 등 다양한 분야에서 새로운 애플리케이션의 등장을 촉진하고 있다. 이미 다수의 글로벌 선도 기업들이 Jetson Thor를 차세대 제품의 핵심 컴퓨팅 플랫폼으로 채택하며 그 가능성을 입증하고 있다.

5.1 휴머노이드 로보틱스

Jetson Thor의 가장 핵심적인 목표 시장은 단연 휴머노이드 로봇이다. 이 플랫폼은 휴머노이드 로봇이 인간과 유사한 수준의 인식, 추론, 행동 능력을 갖추기 위한 ‘온보드 두뇌(onboard brain)’ 역할을 수행하도록 설계되었다.1 온디바이스에서 대규모 VLA 모델을 실시간으로 실행함으로써, 로봇은 클라우드 연결 없이도 복잡한 자연어 지시를 이해하고, 시각 정보를 바탕으로 주변 환경과 상호작용하며, 비정형적인 조작 작업을 수행할 수 있게 된다.4

  • 주요 도입 기업:
  • Boston Dynamics: 세계적으로 가장 잘 알려진 로봇 기업 중 하나인 Boston Dynamics는 차세대 휴머노이드 로봇 ’Atlas’에 Jetson Thor를 통합하고 있다. 이를 통해 이전에는 외부 서버에 의존해야 했던 복잡한 AI 연산을 로봇 내부에서 직접 처리하여 반응성과 자율성을 극대화할 계획이다.5
  • Agility Robotics: 물류 및 창고 자동화를 목표로 하는 휴머노이드 로봇 ’Digit’의 6세대 모델에 Jetson Thor를 핵심 컴퓨팅 플랫폼으로 채택했다. Agility Robotics는 Jetson Thor를 통해 더 크고 지능적인 AI 정책 및 추론 모델을 로봇에 직접 배포하여, 더욱 복잡한 물류 작업을 수행하고 새로운 환경에 대한 일반화 성능을 높일 것으로 기대하고 있다.7
  • 기타 선도 기업: 이 외에도 Figure AI, 1X, OpenAI, Physical Intelligence 등 휴머노이드 로봇 분야의 주요 기업들이 Jetson Thor를 채택했거나 도입을 평가하고 있어, 사실상 이 분야의 표준 플랫폼으로 자리매김하고 있다.8

5.2 자율주행차 (DRIVE AGX Thor)

Jetson Thor와 동일한 SoC 아키텍처를 기반으로 하는 차량용 버전인 NVIDIA DRIVE AGX Thor는 차세대 소프트웨어 정의 차량(Software-Defined Vehicle, SDV)의 ‘중앙 집중형 컴퓨터(centralized car computer)’ 역할을 수행한다. 이 플랫폼은 기존에 수십 개의 분산된 ECU가 처리하던 자율주행, 운전자 보조 시스템(ADAS), 디지털 콕핏, 차량 내 인포테인먼트(IVI) 등의 기능들을 강력한 단일 칩으로 통합하여 차량의 E/E(Electrical/Electronic) 아키텍처를 단순화하고 개발 효율성을 높인다.26

  • 주요 파트너:
  • 자동차 OEM: 스웨덴의 Volvo Cars를 비롯하여 중국의 BYD, GAC의 프리미엄 브랜드 Hyper, Li Auto, ZEEKR, Xiaomi 등 다수의 글로벌 자동차 제조사들이 2025년 이후 출시될 차세대 전기차 및 지능형 차량의 핵심 두뇌로 DRIVE Thor를 채택했다.26
  • 자율주행 트럭 및 로보택시: 장거리 트럭의 자율주행을 개발하는 Aurora, Gatik, PlusAI, Waabi와 로보택시 및 자율 배송 서비스를 제공하는 WeRide, Nuro 등 상용차 부문의 선도 기업들 역시 DRIVE Thor의 강력한 성능과 기능 안전 지원을 바탕으로 자사의 자율주행 시스템을 구축하고 있다.26
  • Tier 1 공급업체: Continental, Magna, Lenovo와 같은 세계적인 자동차 부품 공급업체들도 DRIVE Thor 기반의 양산형 ADAS 및 자율주행 시스템을 개발하여 완성차 업체에 공급할 예정이다.26

5.3 산업 자동화, 의료, 농업 등 기타 분야

Jetson Thor의 적용 범위는 휴머노이드 로봇과 자동차를 넘어, 고성능 엣지 AI 컴퓨팅이 요구되는 모든 산업 분야로 확장된다.

  • 산업 자동화: 스마트 팩토리 내에서 자재를 운반하는 자율 이동 로봇(AMR)이나, 생산 라인에서 정밀 조립 및 품질 검사를 수행하는 로봇 팔의 지능을 고도화하는 데 사용된다.4 건설 및 광산 장비 분야의 글로벌 리더인 Caterpillar와 농기계 분야의 John Deere 등이 Jetson Thor를 차세대 장비에 도입하거나 평가하고 있다.8
  • 의료 로봇 및 기기: 최소 침습 수술을 보조하는 수술 로봇, 환자의 상태를 실시간으로 모니터링하는 지능형 시스템, 재활 훈련을 돕는 로봇 등 정밀성, 안전성, 그리고 낮은 지연 시간이 생명과 직결되는 의료 분야에 적용된다.5 글로벌 의료기기 기업인 Medtronic이 초기 도입 파트너로 참여하여 Jetson Thor의 가능성을 탐색하고 있다.8
  • 스마트 농업 및 물류: 스마트 트랙터와 같은 자율 농기계에 탑재되어 작물의 상태를 분석하고 정밀하게 방제 및 수확 작업을 수행하거나 5, Amazon Robotics와 같은 기업의 거대 물류 창고에서 상품 분류 및 피킹 작업을 자동화하는 데 활용된다.8

이처럼 다양한 산업 분야의 선도 기업들이 조기에 Jetson Thor를 채택하는 현상은 이 플랫폼이 특정 분야에 국한된 솔루션이 아니라, 여러 산업에 걸쳐 적용될 수 있는 수평적 플랫폼 기술(horizontal platform technology)임을 보여준다. NVIDIA는 단일의 강력하고 확장 가능한 아키텍처를 개발한 후, 각 산업 분야의 특성에 맞는 소프트웨어 스택과 파트너 생태계를 구축함으로써, 막대한 R&D 비용을 여러 시장에 분산시키고 규모의 경제를 달성하는 전략을 구사하고 있다.

6. 비교 분석: Jetson Orin 및 주요 경쟁 플랫폼

Jetson Thor의 기술적 위상과 시장 가치를 정확히 평가하기 위해서는 이전 세대 제품 및 현재 시장의 주요 경쟁 플랫폼과의 다각적인 비교가 필수적이다. 본 장에서는 Jetson AGX Orin과의 세대 간 비교를 통해 기술적 진보의 폭을 측정하고, Qualcomm Snapdragon Ride Flex 플랫폼과의 비교를 통해 시장에서의 전략적 포지셔닝을 분석한다.

6.1 세대 간 비교: Jetson Thor vs. Jetson AGX Orin

Jetson Thor는 이전 세대의 플래그십 모델인 Jetson AGX Orin 대비 모든 측면에서 비약적인 발전을 이루었다. 이러한 차이는 단순한 성능 수치의 증가를 넘어, 엣지 AI에 대한 NVIDIA의 접근 방식이 근본적으로 변화했음을 보여준다. Orin이 최적화된 CNN 기반의 ‘인식 AI(Perception AI)’ 시대의 정점이었다면, Thor는 생성형 모델 기반의 ‘에이전트 AI(Agentic AI)’ 시대의 개막을 알리는 제품이다.

  • 정량적 성능 비교: 두 플랫폼 간의 하드웨어 사양 차이는 명확하다. AI 연산 능력은 Orin의 275 TOPS(INT8)에서 Thor의 2070 TFLOPS(FP4, 희소)로 약 7.5배 향상되었으며, CPU 성능은 약 3.1배, 메모리 용량은 2배(64GB → 128GB), 메모리 대역폭은 1.33배(204.8 GB/s → 273 GB/s) 증가했다.2 또한, 와트당 AI 연산 성능으로 정의되는 전력 효율 역시 3.5배 개선되어, 더 높은 성능을 더 효율적으로 제공한다.2
  • 핵심 아키텍처 변화: 이러한 성능 향상의 기저에는 근본적인 아키텍처의 변화가 있다. GPU는 CNN 가속에 강점을 보였던 Ampere 아키텍처에서 Transformer 모델 가속에 특화된 Blackwell 아키텍처로 진화했다. 특히 Transformer Engine과 네이티브 FP4 정밀도 지원은 Orin에는 없었던 Thor만의 핵심적인 차별점이다.45 CPU 역시 모바일 기기에 뿌리를 둔 Cortex-A 시리즈에서 데이터센터용으로 설계된 Neoverse V-시리즈로 전환되었다. 이는 단순한 코어 수 증가를 넘어, 고대역폭 데이터 파이프라인 관리, 가상화, 기능 안전 지원 등 서버급 워크로드를 처리하기 위한 구조적 변화를 의미한다.46 I/O 측면에서도 10GbE에서 4개의 25GbE로, PCIe Gen4에서 Gen5로의 업그레이드는 대용량 센서 데이터로 인한 병목 현상을 근본적으로 해결한다.17

6.1.1 표 3: Jetson Thor vs. Jetson AGX Orin 64GB 비교

사양Jetson T5000 (Thor)Jetson AGX Orin 64GB
GPU 아키텍처NVIDIA BlackwellNVIDIA Ampere
AI 최대 성능2070 TFLOPS (FP4, 희소)275 TOPS (INT8, 희소)
CPU 아키텍처14코어 Arm Neoverse-V3AE12코어 Arm Cortex-A78AE
메모리128 GB LPDDR5X64 GB LPDDR5
메모리 대역폭273 GB/s204.8 GB/s
네트워킹 I/O4x 25 GbE1x 10 GbE
PCIe 세대PCIe Gen5PCIe Gen4
비디오 엔진이중 NVDEC / 이중 NVENC단일 NVDEC / 단일 NVENC
전력 소모40 W – 130 W15 W – 60 W

출처:.5

6.2 경쟁 환경 분석: Jetson Thor vs. Qualcomm Snapdragon Ride Flex

자율 시스템 시장에서 NVIDIA의 가장 강력한 경쟁자는 모바일 및 통신 칩 분야의 강자인 Qualcomm이다. Qualcomm의 Snapdragon Ride Flex SoC는 NVIDIA Thor와 유사하게 차량 내 여러 도메인을 통합하는 중앙 집중형 컴퓨팅을 목표로 하지만, 두 플랫폼은 근본적인 설계 철학과 전략에서 차이를 보인다.

이는 시장에서 ’최고 성능(Maximum Performance) 대 충분히 좋은 통합(Good-Enough Integration)’의 고전적인 경쟁 구도를 형성한다. NVIDIA는 AI 성능에 대한 요구가 끊임없이 증가할 것이라는 전제 하에 Thor의 압도적인 연산 능력이 시장을 지배할 것이라 보고 있다. 반면 Qualcomm은 특히 전기차와 같이 전력 효율이 중요한 주류 자동차 시장에서는 여러 기능을 비용 효율적으로 통합하고 낮은 전력으로 구동하는 능력이 더 중요한 경쟁력이 될 것이라고 판단하고 있다.

  • 아키텍처 철학: Jetson Thor는 NVIDIA의 핵심 역량인 GPU 기술과 CUDA 생태계를 기반으로, AI 연산의 최고 성능(peak performance)을 달성하는 데 모든 설계 역량을 집중한다.1 반면 Snapdragon Ride Flex는 CPU, GPU, NPU(신경망 처리 장치), DSP, 그리고 통신 모뎀 등 다양한 IP를 단일 칩에 효율적으로 통합하는 Qualcomm의 모바일 SoC 설계 철학을 계승한다. 이 플랫폼은 와트당 성능(performance-per-watt)을 극대화하고, ADAS, 디지털 콕핏, 커넥티비티 기능을 하나의 칩으로 통합하여 시스템 비용과 전력 소모를 줄이는 데 중점을 둔다.49
  • 성능 및 기능: AI 연산 성능 면에서는 Jetson Thor가 최대 2070 TFLOPS로 압도적인 우위를 점하며, 특히 대규모 생성형 AI 모델 실행에 최적화되어 있다.8 Snapdragon Ride Flex는 여러 칩을 결합했을 때 최대 2000 TOPS를 목표로 하지만, 단일 칩 성능은 Thor에 미치지 못한다. 대신, Ride Flex는 하드웨어 가상화를 통해 ADAS와 같은 안전 필수 워크로드와 인포테인먼트와 같은 비필수 워크로드를 안정적으로 통합 실행하는 기능에 강점을 보인다.49
  • 소프트웨어 및 생태계: NVIDIA의 가장 큰 자산은 수십 년간 축적된 CUDA 개발자 생태계이다. 전 세계 수백만 명의 AI 개발자와 연구자들은 이미 CUDA에 익숙하며, 이는 Jetson Thor 플랫폼으로의 전환을 용이하게 한다. 또한 Isaac(로보틱스)과 DriveOS(자동차)와 같은 강력한 도메인 특화 소프트웨어 플랫폼은 개발을 가속화한다.5 Qualcomm은 통신 기술과 모바일 AP 시장에서의 지배력을 바탕으로 자동차 OEM들과 강력한 파트너십을 구축해왔으며, 특히 디지털 콕핏 분야에서는 이미 높은 시장 점유율을 확보하고 있다.49
  • 시장 전망: 이러한 차이점으로 인해 두 플랫폼은 서로 다른 시장에서 강점을 보일 것으로 예측된다. Jetson Thor는 극한의 AI 성능이 요구되는 휴머노이드 로봇, L4/L5 수준의 자율주행 트럭 및 로보택시, 그리고 고성능 산업 자동화 시장을 주도할 가능성이 높다. 반면 Snapdragon Ride Flex는 전력 효율과 비용 효율적인 통합이 중요한 L2+/L3 수준의 ADAS와 디지털 콕핏을 결합하는 주류 및 프리미엄 승용차 시장에서 강력한 경쟁력을 유지할 것으로 보인다. 결국 시장은 요구 성능과 비용에 따라 양분될 가능성이 있다.

6.2.1 표 4: 플랫폼 철학 비교: Jetson Thor vs. Qualcomm Snapdragon Ride Flex

특징NVIDIA Jetson/DRIVE ThorQualcomm Snapdragon Ride Flex
주요 아키텍처 초점GPU 중심의 최대 AI 연산 성능SoC 통합 및 전력 효율성
핵심 강점압도적인 최고 AI 성능 (2070 TFLOPS)와트당 성능, 다중 도메인 통합
소프트웨어 생태계CUDA, Isaac, DriveOS, OmniverseSnapdragon Digital Chassis, Automotive Cloud
주요 목표 시장휴머노이드 로봇, L4/L5 자율주행, 고성능 엣지 AI통합형 디지털 콕핏 및 L2+/L3 ADAS
안전 접근 방식FuSa 지원 하드웨어 아키텍처 (Neoverse V3AE)전용 ASIL-D Safety Island 통합

출처:.49

7. 결론: 엣지 컴퓨팅과 로보틱스의 미래에 대한 제언

7.1 Jetson Thor의 영향 요약

NVIDIA Jetson Thor는 단순한 고성능 임베디드 모듈을 넘어, 물리 AI 시대의 도래를 알리는 기술적 변곡점이다. 이 플랫폼은 데이터센터에 국한되었던 생성형 AI의 막대한 연산 능력을 엣지 디바이스로 이전시키는 기폭제 역할을 한다. 이를 통해 로봇은 단순히 프로그래밍된 명령을 수행하는 기계를 넘어, 주변 환경을 깊이 이해하고, 인간과 자연어로 소통하며, 스스로 복잡한 문제를 해결하는 ’에이전트 AI(Agentic AI)’로 진화할 수 있는 견고한 기반을 마련하게 되었다.2

NVIDIA의 전략은 하드웨어(Blackwell GPU, Neoverse CPU), 소프트웨어(Isaac 플랫폼, GR00T 파운데이션 모델), 그리고 시뮬레이션(Omniverse)을 아우르는 수직 통합적 플랫폼을 제공하는 데 있다.4 이러한 엔드투엔드 솔루션은 로보틱스 개발의 진입 장벽을 낮추고, 산업 전반의 혁신 속도를 가속화할 것이다. 결과적으로 Jetson Thor는 차세대 로보틱스 및 자율 시스템 분야의 사실상 표준 컴퓨팅 아키텍처로 자리매김할 가능성이 매우 높다.

7.2 기술 발전 방향 예측

Jetson Thor가 제시한 방향성을 바탕으로, 향후 엣지 AI 컴퓨팅 기술은 다음과 같은 방향으로 발전할 것으로 예측된다.

  • 하드웨어: AI 모델의 효율성이 계속해서 향상됨에 따라, 하드웨어는 FP4보다 더 낮은 정밀도(sub-FP4)의 데이터 형식을 네이티브로 지원하여 에너지 효율을 극대화하는 방향으로 진화할 것이다. 또한, 온칩 메모리 용량은 지속적으로 증가할 것이며, CPU, GPU, NPU 간의 데이터 이동을 최소화하기 위한 더욱 긴밀한 통합 아키텍처가 등장할 것이다.
  • 소프트웨어: AI 모델 아키텍처는 단일 거대 모델을 넘어, 각기 다른 전문 분야를 가진 여러 소규모 에이전트 모델들이 협력하여 문제를 해결하는 ‘전문가 혼합(Mixture-of-Experts, MoE)’ 방식이 엣지 환경에서도 구현될 것이다.11 이에 따라, 제한된 자원 내에서 이러한 다중 에이전트 모델을 효율적으로 스케줄링하고 관리하는 온디바이스 오케스트레이션 기술의 중요성이 부각될 것이다.
  • 생태계: ‘Sim2Real’ 기술은 더욱 고도화되어, 로봇 개발 과정의 대부분을 가상 시뮬레이션 환경에서 수행하고 최종 검증 단계에서만 실제 하드웨어를 사용하는 워크플로우가 보편화될 것이다. 물리적으로 정확한 디지털 트윈과 실제 하드웨어 간의 동작 차이를 최소화하는 기술이 로봇 개발의 속도와 비용을 결정하는 핵심 경쟁력이 될 것이다.3

7.3 개발자 및 기업을 위한 전략적 제언

Jetson Thor와 같은 강력한 통합 플랫폼의 등장은 개발자 및 기업의 기술 전략 수립에 중요한 시사점을 제공한다.

  • 통합적 접근의 필요성: 더 이상 하드웨어와 소프트웨어를 분리하여 최적화하는 시대는 지났다. Jetson Thor와 같은 플랫폼을 선택하는 것은 단순히 특정 칩을 선택하는 것이 아니라, 그에 연결된 NVIDIA의 방대한 소프트웨어 생태계, 개발 워크플로우, 그리고 파트너 네트워크 전체를 선택하는 것임을 인지해야 한다.
  • 핵심 가치 식별: Boston Dynamics, Volvo 등 초기 도입 기업들의 사례를 면밀히 분석하여, 자사의 애플리케이션과 비즈니스 모델에 Jetson Thor의 어떤 기능—예를 들어, 혼합 중요도 워크로드를 위한 MIG, 초저지연 센서 처리를 위한 Holoscan, 범용 지능 구현을 위한 GR00T 모델—이 가장 큰 가치를 제공할지 명확히 식별해야 한다. 이를 바탕으로 효과적인 PoC(Proof of Concept)를 설계하고 기술 도입의 타당성을 검증해야 한다.
  • 다차원적 평가: 플랫폼을 선택할 때, 단순히 TFLOPS와 같은 단일 성능 지표에만 의존해서는 안 된다. 데이터 파이프라인의 효율성(I/O 대역폭), 소프트웨어 스택의 성숙도, 개발자 커뮤니티의 규모, 그리고 기능 안전 및 보안과 같은 비기능적 요구사항을 종합적으로 평가하여, 장기적인 관점에서 자사의 제품 로드맵과 비전에 부합하는 플랫폼 전략을 수립하는 것이 필수적이다.

8. 참고 자료

  1. Introducing NVIDIA Jetson Thor, the Ultimate Platform for Physical AI, https://developer.nvidia.com/blog/introducing-nvidia-jetson-thor-the-ultimate-platform-for-physical-ai/
  2. Jetson Thor | Advanced AI for Physical Robotics - NVIDIA, https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/jetson-thor/
  3. BLOG: ADI Adopts NVIDIA Jetson Thor to Advance Physical Intelligence and Reasoning for Humanoids | Analog Devices, https://www.analog.com/en/newsroom/press-releases/2025/8-25-2025-adi-adopts-jetson-thor.html
  4. NVIDIA Jetson Thor Ushers in the Age of Agentic AI-Powered Robotics, https://www.arcweb.com/blog/nvidia-jetson-thor-ushers-age-agentic-ai-powered-robotics
  5. NVIDIA Jetson Thor Unlocks Real-Time Reasoning for General Robotics and Physical AI, https://blogs.nvidia.com/blog/jetson-thor-physical-ai-edge/
  6. NVIDIA’s Jetson Thor: A Catalyst for the Physical AI Revolution - AInvest, https://www.ainvest.com/news/nvidia-jetson-thor-catalyst-physical-ai-revolution-2508/
  7. Nvidia touts Jetson Thor kit for real-time robot reasoning - The Register, https://www.theregister.com/2025/08/25/nvidia_touts_jetson_thor_kit/
  8. NVIDIA Blackwell-Powered Jetson Thor Now Available, Accelerating the Age of General Robotics, https://nvidianews.nvidia.com/news/nvidia-blackwell-powered-jetson-thor-now-available-accelerating-the-age-of-general-robotics
  9. NVIDIA Announces General Availability of Jetson AGX Thor Developer Kit and Production Modules for Advanced Robotics Applications - Quiver Quantitative, https://www.quiverquant.com/news/NVIDIA+Announces+General+Availability+of+Jetson+AGX+Thor+Developer+Kit+and+Production+Modules+for+Advanced+Robotics+Applications
  10. NVIDIA Jetson Thor bring 2K teraflops of AI compute to robots, https://www.therobotreport.com/nvidia-jetson-thor-brings-2k-teraflops-of-ai-compute-to-robots/
  11. Nvidia’s Jetson AGX Thor ‘Robot Brain’ Is Now Available - TechRepublic, https://www.techrepublic.com/article/news-nvidia-thor/
  12. Nvidia quietly unveiled its fastest mini PC ever, capable of topping 2070 TFLOPS - and if you squint enough, you might even think it looks like an RTX 5090 - TechRadar, https://www.techradar.com/pro/nvidia-quietly-unveiled-its-fastest-mini-pc-ever-capable-of-topping-2070-tflops-and-if-you-squint-enough-you-might-even-think-it-looks-like-an-rtx-5090
  13. NVIDIA Jetson AGX Thor Developer Kit - Silicon Highway, https://www.siliconhighway.com/wp-content/robotics-and-edge-ai-datasheet-jetson-thor-devkit-nvidia-us-web.pdf
  14. Datasheet - NVIDIA - Open Zeka, https://openzeka.com/en/wp-content/uploads/2025/07/NVIDIA_Jetson_Thor_Module_Datasheet.pdf
  15. NVIDIA Jetson AGX Thor Tested: Blackwell Brings Physical AI to Life | HotHardware, https://hothardware.com/reviews/nvidia-jetson-agx-thor-developer-kit-hands-on
  16. Jetson Thor specifications announced : r/nvidia - Reddit, https://www.reddit.com/r/nvidia/comments/1jg6m1e/jetson_thor_specifications_announced/
  17. NVIDIA Jetson Thor: New SoC Features Guide - RidgeRun Developer Wiki, https://developer.ridgerun.com/wiki/index.php/NVIDIA_Jetson_Thor:_Powering_the_Future_of_Physical_AI
  18. Nvidia reveals Jetson Thor specs during GTC 2025 : r/hardware - Reddit, https://www.reddit.com/r/hardware/comments/1jmwn7v/nvidia_reveals_jetson_thor_specs_during_gtc_2025/
  19. ARM Neoverse - Wikipedia, https://en.wikipedia.org/wiki/ARM_Neoverse
  20. Arm and NVIDIA enabling intelligent solutions for roads and robots, https://newsroom.arm.com/blog/nvidia-drive-agx-jetson-thor-arm-neoverse
  21. NVIDIA Jetson Thor FAQs Everyone Must Know - RidgeRun.ai, https://www.ridgerun.ai/post/nvidia-jetson-thor-faqs-everyone-must-know
  22. 2025 Humanoid Robot Insights: How will the Thor platform lead the development of intelligent robots? - EEWORLD, https://en.eeworld.com.cn/news/robot/eic695458.html
  23. NVIDIA Multi-Instance GPU (MIG), https://www.nvidia.com/en-us/technologies/multi-instance-gpu/
  24. NVIDIA Multi-Instance GPU User Guide, https://docs.nvidia.com/datacenter/tesla/pdf/NVIDIA_MIG_User_Guide.pdf
  25. MIG User Guide — NVIDIA Multi-Instance GPU User Guide r580 documentation, https://docs.nvidia.com/datacenter/tesla/mig-user-guide/
  26. NVIDIA Rolls Out DRIVE AGX Thor Developer Kit to World’s Automotive Developers, https://blogs.nvidia.com/blog/drive-agx-developer-kit-general-availability/
  27. NVIDIA Thor, QNX, and the Next Wave of Automotive + Robotics Compute : r/BB_Stock, https://www.reddit.com/r/BB_Stock/comments/1mzvzxm/nvidia_thor_qnx_and_the_next_wave_of_automotive/
  28. Unboxing the NVIDIA DRIVE AGX Thor Developer Kit - YouTube, https://www.youtube.com/watch?v=FnBbQfXdd3o
  29. NVIDIA DriveOS SDK, https://developer.nvidia.com/drive/os
  30. NVLink-C2C | Chip Interconnect Technology - NVIDIA, https://www.nvidia.com/en-us/data-center/nvlink-c2c/
  31. NVIDIA Opens NVLink for Custom Silicon Integration, https://nvidianews.nvidia.com/news/nvidia-opens-nvlink-for-custom-silicon-integration
  32. DRIVE Thor Unites AV and Cockpit on a Single SoC - NVIDIA Blog, https://blogs.nvidia.com/blog/drive-thor/
  33. Nvidia Drive - Wikipedia, https://en.wikipedia.org/wiki/Nvidia_Drive
  34. Nvidia’s new automotive superchip covers all SAE levels, meets FuSa standards, https://www.eenewseurope.com/en/nvidias-new-automotive-superchip-covers-all-sae-levels-meets-fusa-standards/
  35. JetPack Software Stack for NVIDIA Jetson - NVIDIA Developer, https://developer.nvidia.com/embedded/jetpack
  36. Isaac GR00T - Generalist Robot 00 Technology - NVIDIA Developer, https://developer.nvidia.com/isaac/gr00t
  37. AI for Robotics | NVIDIA, https://www.nvidia.com/en-us/industries/robotics/
  38. NVIDIA Brings Blackwell Performance to the Edge with Jetson Thor for Robotics - HPCwire, https://www.hpcwire.com/off-the-wire/nvidia-brings-blackwell-performance-to-the-edge-with-jetson-thor-for-robotics/
  39. Getting Started with the NVIDIA Jetson AGX Thor Developer Kit for Physical AI - YouTube, https://www.youtube.com/watch?v=iYT2haVIgSM
  40. Nvidia Unveils $3,499 Robotics Developer Kit, Targets Robotics as Key Growth Sector, https://scanx.trade/stock-market-news/global/nvidia-unveils-3-499-robotics-developer-kit-targets-robotics-as-key-growth-sector/17718788
  41. NVIDIA Blackwell-Powered Jetson Thor Now Available, Accelerating the Age of General Robotics | TechPowerUp Forums, https://www.techpowerup.com/forums/threads/nvidia-blackwell-powered-jetson-thor-now-available-accelerating-the-age-of-general-robotics.340296/
  42. Self-Driving Supercomputer Showdown: NVIDIA Drive Thor vs Tesla FSD Hardware 4 vs Qualcomm Snapdragon Ride Flex - TS2 Space, https://ts2.tech/en/self-driving-supercomputer-showdown-nvidia-drive-thor-vs-tesla-fsd-hardware-4-vs-qualcomm-snapdragon-ride-flex/
  43. NVIDIA DRIVE Powers Next Generation of Transportation — From Cars and Trucks to Robotaxis and Autonomous Delivery Vehicles, https://nvidianews.nvidia.com/news/nvidia-drive-powers-next-generation-transportation
  44. Magna and NVIDIA Team Up to Advance Next-Gen Automotive Technologies, https://www.magna.com/stories/news-press-release/2025/magna-and-nvidia-team-up-to-advance-next-gen-automotive-technologies
  45. New Details on NVIDIA Jetson AGX Thor: The Future of AI Robotics and Edge Computing, https://www.rs-online.com/designspark/new-details-on-nvidia-jetson-agx-thor-the-future-of-ai-robotics-and-edge-computing
  46. DRIVE AGX Autonomous Vehicle Development Platform - NVIDIA Developer, https://developer.nvidia.com/drive/agx
  47. NVIDIA Orin vs Thor: The Generational Leap in Edge AI Computing - twowin technology, https://twowintech.com/nvidia-orin-vs-thor-the-generational-leap-in-edge-ai-computing/
  48. Embedded Systems Developer Kits & Modules from NVIDIA Jetson, https://www.nvidia.com/en-us/autonomous-machines/embedded-systems/
  49. NVIDIA and Qualcomm: Shaping the Software-defined Vehicle - Counterpoint Research, https://www.counterpointresearch.com/insight/nvidia-qualcomm-shaping-software-defined-vehicle
  50. Snapdragon Ride: A foundational platform for automakers to scale with the ADAS market - Qualcomm, https://www.qualcomm.com/content/dam/qcomm-martech/dm-assets/documents/Snapdragon-Ride-GLOBAL-whitepaper.pdf
  51. Snapdragon Ride: A foundational platform for automakers to scale with the ADAS market, https://www.qualcomm.com/news/onq/2025/08/snapdragon-ride-platform-for-automakers-to-scale-with-adas
  52. Snapdragon Ride Flex puts safety, infotainment onto single chip - SAE International, https://www.sae.org/news/2023/02/qualcomm-ride-flex-soc
  53. The Big Four Nvidia, Qualcomm, Intel, and AMD hunt for autonomous driving: who will become the “core” king of automobiles?, https://news.futunn.com/en/post/36706373/the-big-four-nvidia-qualcomm-intel-and-amd-hunt-for